این بنا در شمال شرقی شهر، بین محله های پیرشمس الدین و عبدالله شاه بر روی تپه مرتفعی واقع گردیده و یکی از قدیمی ترین مساجد شمال غربی ایران است. با توجه به حفاری های باستان شناسی که در محوطه اطراف این مسجد صورت گرفته بقایای شبستان های ستوندار در بخش شرقی و شمالی و هم چنین آثاری از کتیبه های متعلق به قرن سوم و چهارم ه .ق کشف گردیده است. اصل بنای کنونی مسجد در دوره سلجوقیان بر روی بقایای کهن تری ساخته شده که در نتیجه حمله مغول حدود سال 620 هجری ویران و درحدود سال 650 هجری مجدداً باز سازی گشته است در این بازسازی، گنبد به طور کامل بازسازی شده و تزیینات مختلف گچبری و نقاشی در شبستان و محراب آن انجام گردیده است. بنای فعلی مسجد به ابعاد خارجی 85/18 ×45/36 متر از گنبد خانه ای ویران و ایوانی که در دوره های بعد به شبستان ستون داری تبدیل شده، تشکیل می شود هم چنین در 5/16 متری مسجد بقایای مناره ای از دوره سلجوقی برجای مانده است. این فضا توسط سه کنج ها و ترنبه ها به هشت ضلعی و سپس شانزده ضلعی تبدیل گردیده و گنبد بر روی آن قرار گرفته است. بقایای ساقه گنبد نشان می دهد که این بخش دارای ترک های متعدد منشوری زیبا قطار بندی و تزیینات کاشی معرق بوده که تنها بخش اندکی از آن باقی مانده است. دیواره های داخلی گنبد خانه با اندود گچ و نقوش ترنج و گل و بوته قابل مقایسه با تزیینات گنبد سلطانیه تزیین یافته و در ضلع جنوبی آن، محراب بلند و زیبایی از دوره ایلخانی باگچ بری ها و مقرنس کاری های جالب و در زیر آن آثاری از محراب کوچک تر دوره سلجوقی مشهود است. درب ورودی مسجد به تاریخ 742 ه .ق دارای گره های هندسی، گل میخ های آهنی و کتیبه ای حاوی دوبیت شعر به خط نسخ است چنین به نظر می رسد که درب مزبور، از جای دیگر به این مسجد منتقل شده است. در حدود 5/16 متری مسجد، بقایای مناره ای از دوره سلجوقی به ارتفاع هشت و قطر پنج متر باقی مانده که به هنگام آبادانی مسجد در کنار آن قرار داشته آجر چینی بخشی از سطح مناره به صورت خفته راسته است که تا حدودی به آن حالت تزیینی بخشیده است بر بدنه مناره دوسنگ نبشته به تاریخ های 878 و879 ه. ق نصب شده که مربوط به اوزون حسن حکمران آق قویونلو است و ارتباطی با بنای مسجد و ناره ندارد و حتمالاً از جای دیگری آورده و ر روی منار نصب شده است این بنا به شماره 248 به ثبت تاریخی رسیده است. مأذنه مسجد اثر دیگری است که به صورت گلدسته استوانه ای شکل در ضلع غربی شبستان اصلی مسجد و به فاصله تقریبی 15 متری قرار دارد. ایوان مسجد متصل به گنبدخانه می باشد که در قسمت شمالی آن واقع شده و در حال حاضر با تیرهای چوبی پوشانده شده و نمازخانه فعلی را بوجود آورده است. مسجد جمعه اردبیل از بناهای کم نظیر ادوار اسلامی ایران است که در دوره های مختلف ازجمله ایلخانی، سلجوقی، صفوی، قاجار مرمت شده است. به گفته بیوک جامعی(1379) این مسجد مربوط به دوران سلجوقیان است که کنار آتشکده ای قرار گرفته و ساختمان قبلی مسجد مربوط به آتشکده بوده است جمعه مسجد شامل حیاط و ایوان و طاق باشکوهی بوده که در حمله مغول ها تخریب شده و فعلا قسمتی از مسجد سالم است.

 این مسجد که در برخی از نسخه ‌ها و کتاب ها از آن به عنوان مسجد جامع نیز یاد شده، بازمانده مسجد عظیم و گسترده و کم نظیری است که در دوره ‌های مختلف اسلامی بویژه دوره سلجوقی شکل گرفته و تا اوایل دوره صفوی آباد بوده است. این که از چه تاریخی این مسجد بر روی آثار پیش از اسلام ساخته شده اطلاعی در دست نیست اما بررسی هایی که هیات کاوشگری ایرانی انجام داده است نشان می ‌دهد این مسجد در قرون اولیه اسلامی ساخته شده است. مسجد دوره‌ های سلجوقی و ایلخانی بسیار گسترده تر و عظیم تر و وسیع تر از بنای مکعبی فعلی بوده و بنای سرپای موجود صرفاً گنبدخانه و ایوان مسجد بزرگ را تشکیل می ‌داده است. تک منار استوانه ای شکل آجری آن از یادگار های زمان سلجوقی است. مرور زمان باعث شده است اجزای بنا تا حدی که امروز دیده می ‌شود ویران شود. هم چنین به دلیل تصرفاتی که افراد در حریم و تپه به عمل آورده اند و منازلی که روی دامنه آن احداث شده، به تدریج از وسعت این مسجد کاسته است و مساحت آن را به اندازه کنونی تقلیل داده است. این مسجد آخرین بار در دوران ایلخانی مورد مرمت قرار گرفته است. کاوش های باستان شناسی که برای شناخت مختصات تاریخی بنا از سال 1367 توسط سازمان میراث فرهنگی شروع شده، پس از خاکبرداری از لایه ‌های خاک و برچیدن قبرهای متاخر، سرستون های آجری و قسمتی از دیوار شبستان مسجد عتیق را که متعلق به دوره ایلخانی بوده از خاک بیرون آورد که تاریخ روشن مسجد و چگونگی الحاقات و تکامل آن را طی ادوار مختلف تا حدی مشخص نمود و قرار است نتایج این تحقیق توسط هیات علمی تدوین و مشخص گردد. وجود آجرهای مستعمل در این بنا، تزیینات کاشیکاری و گچ بری و نقش مهرها در بندکشی و فواصل آجرها قابل مقایسه با سایر بناهای دوره سلجوقی در آذربایجان است. علت اصلی انهدام و خرابی مسجد، زلزله شدیدی بوده که موجب تخریب این بنا شده است. تعمیرات که در قرن هفتم، قسمت اساسی بنا و گنبد آن صورت گرفته است. شکل گیری و نقشه مسجد جمعه اردبیل بر خلاف مساجد دوره سلجوقی که اغلب به صورت چهار ایوانی بنا می‌ شده ساخته شده است. این موضوع یکی از مختصات استثنایی پلان مسجد جمعه اردبیل محسوب می ‌شود. در زیر تالار اصلی مسجد، به منظور تسهیل عبور و مرور مردم و دسته‌ ها و اجتماعات، دهلیزها و راهروهایی به صورت شبکه ای منظم و محاسبه شده ساخته شده است که در فاصله هر دو متر به صورت چهار راهی متقاطع این ممعبرها دیده می‌ شوند و بلندی هر یک از این راهروهای زیرزمینی 190 سانتی متر و دارای 80 سانتی متر پهنا می ‌باشد. بنای اصلی مسجد که هم اکنون محوطه مکعبی آن سرپاست، در دوره آبادانی دارای گنبدی بوده که گریو گنبد آن دارای ترکیب های متعدد منشوری بسیار زیباست که قطاربندی با تزیینات کاشی معرق دارد و کاربندی زیر گنبد نیز بدین شکل بوده که در هر یک از گوشه ‌های این مربع سه کنج با لچکی های بزرگی ساخته شده که هر شیک دارای دو روزن مستطیلی شکل برای نورگیری و کسب روشنایی برای محوطه محراب بوده است. محوطه اصلی و مربع شکل مسجد در قسمت غربی و شرقی دارای تاقنماهای متعدد است که در هر بدنه تعداد آن ها سه دهنه است که در میان هر یک از تاقنماها راهروهای باریکی به صورت معبر به قسمت های مختلف مسجد از جمله به نمازخانه و شبستان بزرگ راه پیدا می ‌کند. ایوان مجاور گنبدخانه هم اکنون به صورت مسجدی دایر، مورد استفاده اهالی محل است که با همان شبکه راه‌ های زیرزمینی از طرف جنوب به محوطه محراب و از طرف بدنه غربی و شرقی به راهروهای زیرزمینی منتهی می ‌شود. پوشش فعلی مسجد به صورت سقف تیر پوشی مسطح با استفاده از سه ردیف پایه ستون های سه تایی می ‌باشد که در زمان قاجار ساخته شده است. به هر حال در این تعمیرات هرگز به تخریب گریو گنبد و بقایای تزیینی آن اقدام نشده است. مسجد جمعه اردبیل به مرور زمان صدمات زیادی خورده است که آخرین و جدیدی ترین آن در سال 1357 بوده که در طی آن در جریان ساخت و توسعه امتداد خیابان سیمتری، بخش زیادی از تپه تاریخی از بین رفت و بدنه شرقی محوطه محراب مسجد دچار شکستگی و رانش شد. هم اکنون این مسجد به دلیل قرار گرفتن در مسیر حرکت وسایط نقلیه سنگین در معرض لرزش و فرسایش هر چه بیشتر قرار دارد و خطر تخریب و فرسودگی آن را تهدید می ‌کند.